Khi Tống Thái Tổ tiêu diệt dần các quốc gia chư hầu, Dương Nghiệp vẫn kiên trì chiến đấu, được phong làm Kiến Hùng tiết độ sứ. Năm 963, Dương Nghiệp bị một tướng lĩnh trẻ tuổi nhà Tống là Kinh Tự (荊嗣) đánh bại ở sông Bạc Phần.[2] Nghiệp tuy chống Tống bại nhiều hơn thắng, nhưng chủ yếu hay chặn đứng cầu đường, ngăn trở quân Tống, tập kích ban đêm, tất cả đều mang tính chất linh hoạt của kỵ binh. Dương Nghiệp, tuy phò trợ Bắc Hán, nhưng lại luôn khuyên Hà Đông hoà hoãn với Trung Nguyên mà đề phòng Liêu, tư tưởng "Di Hạ Đề Phòng" luôn đi đầu. Vả chăng, những năm này, kỵ binh viện trợ của Liêu luôn bị quân Tống đánh bại, cũng khiến nhiều người có suy nghĩ tương tự.

Năm 979, Tống Thái Tông bắc phạt thành công, khi vua Bắc Hán là Lưu Kế Nguyên đầu hàng, ông mới chịu hàng Tống, và được phong chức đại tướng quân đóng ở Tịnh Châu, Thái Nguyên để cùng với Phan Mỹ đề phòng mặt Bắc cho nhà Tống. Sử ghi chép rằng, quân Tống hạ được Thái Nguyên, bắt được Lưu Kế Nguyên, nhưng Nghiệp vẫn kiên trì chống chọi, chỉ khi Kế Nguyên đến khuyên hàng mới chảy nước mắt, cởi giáp hàng Tống, khiến thiên hạ nể phục.

Khi Tống Thái Tông thất bại trong chiến dịch phạt Liêu và phải trốn về Quan Nam, Dương Nghiệp đã đem hết 3 vạn kỵ binh Dương Gia Quân ra đánh lui quân Liêu của Da Luật Tà Chẩn, đánh thắng vài trận, khiến truy binh của Liêu phải lui trong thảm bại, làm Thái Tông ấn tượng.